همشهری آنلاین - گروه سیاسی: هشدارهای بینالمللی نسبت به استفاده از تبعات هوش مصنوعی در جنگافزارها و میدانهای نبرد رو به افزایش است. تلفات دستهجمعی استفاده از این فناوری در سلاحها به همراه خطای غیر قابل چشمپوشی آن در کشتار غیرنظامیان بیش از هر چیز در این گزارشها محل توجه است. فایننشال تایمز در گزارشی به همین موضوع پرداخته است.
در بخشهایی از این گزارش آمده است:
دولت های غربی برای راه اندازی مؤسسه های ایمنی هوش مصنوعی با یکدیگر رقابت میکنند. بریتانیا، ایالات متحده، ژاپن و کانادا همگی چنین ابتکاراتی را اعلام کردهاند، در حالی که وزارت امنیت داخلی ایالات متحده هفته گذشته یک هیئت ایمنی و امنیت هوش مصنوعی را به این ترکیب اضافه کرد.
با وجود این تاکید شدید بر لزوم ایمنی استفاده از هوش مصنوعی در حملات نظامی، هیچ یک از این بخشها استفاده نظامی از هوش مصنوعی را کنترل نمیکنند. این در حالی است که میدان نبرد امروز، پتانسیل واضح خطرات ایمنی هوش مصنوعی را نشان میدهد.
با توجه به این تاکید شدید بر ایمنی، قابل توجه است که هیچ یک از این ارگان ها استفاده نظامی از هوش مصنوعی را کنترل نمی کنند. در همین حال، میدان نبرد امروزی در حال حاضر پتانسیل خطرات ایمنی واضح هوش مصنوعی را نشان میدهد.
بر اساس تحقیقات اخیر یک مجله اسرائیلی، نیروهای دفاعی اسرائیل از یک برنامه مجهز به هوش مصنوعی به نام لاوندر برای نشانگذاری اهداف خود در حملات پهپادی استفاده میکنند. این سیستم، دادهها و منابع اطلاعاتی را برای شناسایی شبهنظامیان مظنون ترکیب میکند. ظاهرا این برنامه دهها هزار هدف را شناسایی کرده و بمبهای پرتاب شده در غزه منجر به تلفات و خسارات زیادی شد. ارتش اسرائیل چندین بخش از این گزارش را رد میکند.
اهداف برای حملات پهپادی استفاده کرده اند. این سیستم داده ها و منابع اطلاعاتی را برای شناسایی شبه نظامیان مظنون ترکیب می کند. ظاهراً این برنامه دهها هزار هدف را شناسایی کرد و بمبهای پرتاب شده در غزه منجر به تلفات و خسارات جانبی بیش از حد شد. ارتش اسرائیل چندین جنبه از این گزارش را رد می کند.
سرمایهگذاران خطرپذیر بازار تکنولوژی دفاعی را تقویت میکنند. شرکتهای فناوری مشتاق هستند که بخشی از این رونق اخیر باشند و خیلی سریع مزایای هوش مصنوعی را در میدان نبرد بفروشند.
گزارش شده است که مایکروسافت ابزار هوش مصنوعی دالی را در اختیار ارتش ایالات متحده قرار داده است، همچنین شرکت جنجالی تشخیص چهره هوش مصنوعی کلیرویو بابت کمک به اوکراین در شناسایی سربازان روسی با فناوری خود افتخار میکند. شرکت اندوریل هم سیستمهای خودکار میسازد و شرکت هوش مصنوعی شیلد پهپادهای مجهز به هوش مصنوعی را توسعه میدهد. این دو شرکت در اولین دور سرمایهگذاری خود صدها میلیون دلار به دست آوردهاند.
این دولتها هستند که اجازه میدهند بخش تکنولوژی دفاعی از نظارت آنها فرار کند. قانون مهم هوش مصنوعی اتحادیه اروپا در مورد سیستمهای هوش مصنوعی که «بهطور انحصاری برای اهداف نظامی، دفاعی یا امنیت ملی هستند» اعمال نمیشود.
در همین حال فرمان اجرایی کاخ سفید در مورد هوش مصنوعی دارای نکات مهمی برای هوش مصنوعی نظامی بود (اگرچه وزارت دفاع دستورالعملهای داخلی دارد). بهعنوان مثال اجرای بسیاری از دستورات اجرایی کاخ سفید «هنگامی که هوش مصنوعی بهعنوان جزئی از یک سیستم امنیت ملی استفاده میشود» مشمول نیست. و کنگره هیچ اقدامی برای تنظیم استفاده نظامی از این فناوری انجام نداده است.
این امر باعث میشود که دو بلوک اصلی دموکراتیک جهان هیچ قانون الزامآور جدیدی در مورد نوع سیستمهای هوش مصنوعی که ارتش و سرویسهای اطلاعاتی میتوانند استفاده کنند، نداشته باشند. بنابراین آنها فاقد اقتدار اخلاقی برای تشویق سایر کشورها به استفاده از هوش مصنوعی در ارتشهای خود هستند. اعلامیه سیاسی اخیر در مورد «استفاده مسئولانه نظامی از هوش مصنوعی و خودکار» بودن آنها که از سوی تعدادی از کشورها حمایت شد، چیزی بیش از یک اعلامیه نیست.
این سوال مطرح است که بحثهای سیاسی در مورد ایمنی هوش مصنوعی در صورتی که کاربردهای نظامی این فناوری را پوشش ندهد، چقدر معنادار است؟ بهرغم نقص شواهد مبنی بر اینکه سلاحهای مجهز به هوش مصنوعی میتوانند با قوانین بینالمللی در مورد تمایز و تناسب در میدان جنگ مطابقت داشته باشد، آنها در سراسر جهان فروخته میشوند. از آنجایی که برخی از فناوریها دارای کاربرد دوگانه هستند، خطوط میان کاربردهای نظامی و غیرنظامی در حال محو شدن هستند.
تصمیم برای قاعدهمند نکردن استفاده نظامی از هوش مصنوعی هزینه انسانی دارد. صرفنظر از اینکه هوش مصنوعی بهطور سیستماتیک دقیق است یا خیر، اغلب به سیستمهای هوش مصنوعی در زمینههای نظامی اطمینان بیمورد داده میشود، زیر به اشتباه بیطرف تلقی میشوند.
هوش مصنوعی میتواند به تصمیمگیری سریعتر نظامی کند کند، اما همچنین میتواند مستعد خطا باشد و اساسا ممکن است هوش مصنوعی به قوانین بشردوستانه بینالمللی پایبند نباشد. کنترل انسانی بر عملیات در پاسخگو نگه داشتن قانونی بازیگران نبرد بسیار مهم است.
سازمان ملل تلاش کرده این خلا را پر کند. آنتونیو گوترش دبیرکل سازمان ملل برای اولین بار در سال ۲۰۱۸ خواستار ممنوعیت سلاحهای خودکار شد و آنها را از نظر اخلاقی منفور توصیف کرد. بیش از ۱۰۰ کشور علاقهمند به مذاکره و تصویب قوانین بینالمللی جدید برای منع و محدود کردن سیستمهای تسلیحاتی خودکار هستند، اما روسیه، آمریکا، بریتانیا و اسرائیل با یک پیشنهاد الزامآور مخالفت کردهاند که باعث شکست مذاکرات شده است.
اگر کشورها برای محافظت از غیرنظامیان در استفاده نظامی از هوش مصنوعی اقدامی نکنند، نظام بین المللی مبتنی بر قوانین باید تقویت شود.
نهاد مشورتی سطح عالی دبیرکل سازمان ملل در استفاده از هوش مصنوعی یکی از گروههایی است که میتواند ممنوعیت استفادههای مخاطرهآمیز از هوش مصنوعی نظامی را توصیه کند، اما رهبری سیاسی برای اطمینان از رعایت قوانین حیاتی است.
اطمینان از ادامه استانداردهای حقوق بشری و قوانین درگیریهای مسلحانه برای محافظت از غیرنظامیان در عصر جدید جنگ بسیار مهم است. استفاده بی رویه از هوش مصنوعی در میدان نبرد نمی تواند ادامه یابد.
نظر شما